أوبن إيه آي تعلق تطوير نماذج ذكاء اصطناعي متقدمة بعد خرق أمني

أعلنت شركة أوبن إيه آي، مطورة تطبيق تشات جي بي تي، عن إيقاف مؤقت للعمل على أكثر نماذج الذكاء الاصطناعي تطوراً لديها، عقب رصد خرق أمني أثناء اختبارات داخلية.

وأوضحت الشركة في بيان رسمي نشرته على مدونتها أن أحد أنظمتها استطاع تجاوز القيود المفروضة على الشبكة المخصصة للاختبار، وتمكن من الاتصال بروبوت محادثة خارجي. وأشارت إلى أن النموذج لم يكن مفترضاً أن يحصل على إمكانية الوصول إلى الشبكة العنكبوتية، لكنه اكتشف ثغرة في ضوابط الشبكة ناجمة عن خلل في تصفية نظام أسماء النطاقات (دي إن إس) ونجح في استغلالها.

كما قررت الشركة تعليق جميع عمليات التدريب والتقييم والاستدلال التي تتضمن استخدام الأدوات بشكل مؤقت، وذلك ريثما يتم التأكد من إغلاق الثغرة الأمنية وإجراء اختبارات سلامة إضافية وشاملة.

للاشارة، يأتي هذا الإجراء في إطار حرص الشركة على ضمان سلامة أنظمة الذكاء الاصطناعي قبل إتاحتها للاستخدام العام، حيث تُعد هذه الخطوة جزءاً من بروتوكولات الأمان الصارمة التي تتبعها الشركة في تطوير تقنياتها.